Thành phố này được thành lập tại điểm cực bắc của vùng Hondsrug. Tài liệu cổ nhất ghi chép về sự tồn tại của Groningen vào năm 1040. Tuy nhiên, thành phố đã tồn tại từ lâu trước thời gian này: các di vật khảo cổ có niên đại từ năm 3950–3720 Công nguyên, dù khu định cư lớn đầu tiên ở Groningen là từ năm 3 Công nguyên.

Thế kỷ 13, Groningen đã là một trung tâm thương mại quan trọng và cư dân của thành phố này đã xây một thành xung quanh. Thành phố có ảnh hưởng tới khu vực xung quanh và khiến ngôn ngữ ở đây thành tiếng phổ thông cho khu vực xung quanh. Vào thế kỷ 15, tỉnh Friesland gần đó được quản lý từ Groningen. Trong thời kỳ này, tháp Martini đã được xây, cao 127 m.

Năm 1614, Đại học Groningen đã được thành lập, ban đầu chỉ dành cho giáo dục tôn giáo. Cùng thời gian này, thành phố mở mang nhanh chóng và một tường thành mới đã được xây.

Trong Chiến tranh thế giới thứ hai, thành phố bị hư hại nặng nhưng tháp Maritni và nhà thờ Goudkantoor, cũng như tường thành không bị phá hủy.